دستکاری تصویر در این مرحله پیشرفته از عصر دیجیتال به همان اندازه سرگرم کننده نیست بلکه یک سلاح دیسکی است که در سایه اخبار جعلی برای جلب نظر و رسوائی های جرقه زده است.

تعویض چهره ، به ویژه ، سرگرم کننده به نظر می رسد اگر شما فکر می کنید آن را به عنوان یک چمدان در یک میز خانوادگی ، در حالی که کودکان و بزرگسالان چهره های مختلفی را در افراد مختلف امتحان می کنند. با این حال ، این همچنین ابزاری برای انگیزه های بسیار بدتر است. Swapna به کریشنا در کالا اظهار داشت که "مردم، البته، گرفته شده استفاده از این ابزار برای استفاده از برخی نگران کننده است، از جمله مردم صورت مبادله را به فیلم های مستهجن از حد نهایی انجمن انتقام."

در بررسی فناوری MIT ، "فناوری نوظهور از arXiv" گفت ، "فیلمهای مستهجن با نام" deepfakes "در وب سایتهایی ظاهر شده اند که چهره های افراد مشهور را بر روی بدن بازیگران قرار داده است."

محققان ، با این حال ، علاقه مند به اکتشاف این ابزار و چگونگی استفاده از این روش هستند ، به الگوریتمی رسیده اند ، می گویند ناظران ، که می تواند سایر تکنیک های موجود را انجام دهد. آنها راهی برای تشخیص مبادله صورت از طریق الگوریتم فهمیدند و به محض ارسال فیلم های جعلی را برداشتند.

Analytics Vidhya اظهار داشت: "چیزی شبیه به این الگوریتم به شدت مورد نیاز بود که نبردهایی را در برابر تعویض صورت انجام دهد که به دلایل اشتباهی مورد استفاده قرار می گیرد. در انتشار مقاله تحقیق به عموم ، محققان امیدوار هستند که دیگران نیز دست به دست هم دهند و روی این کار کار کنند. مطالعه کنید تا آن را دقیق تر و دقیق تر کنید. "

آندریاس روسلر رهبر تیم از شرکت کنندگان از دانشگاه فنی مونیخ ، دانشگاه فدریکو دوم ناپل و دانشگاه ارلانگن-نورنبرگ بود.

Engadget گفت ، آنها الگوریتم XceptionNet را با استفاده از مجموعه وسیعی از مبادلات صورت آموزش دادند .

راسلر و تیم در بررسی فناوری MIT گفتند: "ما یک پایه اساسی از نتایج را برای تشخیص یک دستکاری صورت با معماری مدرن یادگیری عمیق تعیین کردیم ." اندازه دارای اهمیت است.

اندازه این بانک اطلاعاتی نسبت به آنچه که قبلاً در دسترس بود بهبود قابل توجهی داشته است. راسلر گفت: "ما مجموعه ای از داده های جدید از فیلم های دستکاری شده را که بیش از کلیه مجموعه داده های پزشکی قانونی موجود با دستورات بزرگی است ، معرفی می کنیم."

در مقاله خود ، نویسندگان گفتند که آنها مجموعه داده های دستکاری چهره ، FaceForensics ، "از حدود نیم میلیون تصویر ویرایش شده (از بیش از 1000 فیلم)" را معرفی کردند.

این مقاله با عنوان "FaceForensics: یک مجموعه داده ویدیویی در مقیاس بزرگ برای کشف جعل در چهره های انسانی" در مورد arXiv منتشر شده است. نویسندگان آندریاس روسلر ، داوید کوزولینو ، لوئیزا وردولیوا ، کریستین ریس ، جاستوس تیس و ماتیاس نیشنر هستند.

نویسندگان توجه به این مشکل را - برای انسان و رایانه - در تلاش برای تمایز بین ویدیوی اصلی و دستکاری شده ، "به ویژه هنگامی که فیلم ها فشرده می شوند یا دارای وضوح پایین هستند ، عنوان می کنند ، زیرا این اتفاق اغلب در شبکه های اجتماعی رخ می دهد."

آنها همچنین توجه به این واقعیت که "تحقیقات در مورد تشخیص دستکاری صورت توسط جدی نبودن داده های کافی مانع شده است ، توجه کردند."

هرچند که در موفقیت آنها یک تفاوت ظریف وجود دارد که باعث جلب توجه نیز می شود. مقاله "فناوری نوظهور از arXiv" آن را "نیش در دم" نامید. چیست؟ "همان تکنیک یادگیری عمیق که می تواند فیلم های چهره ای را نشان دهد ، همچنین می تواند در درجه اول به منظور بهبود کیفیت تعویض صورت استفاده شود - و این می تواند تشخیص آنها را سخت تر کند."

Engadget به همین ترتیب گفت: "XceptionNet به روشنی از تکنیک های رقیب خود در تشخیص این نوع فیلم های جعلی بهتر عمل می کند ، اما در واقع کیفیت جعلیات را نیز بهبود می بخشد. تیم راسلر می تواند از بزرگترین مشخصه های مبادله صورت استفاده کند تا این دستکاری راحت تر انجام شود. XceptionNet را احمق نکنید ، اما در دراز مدت ، این می تواند روش های دیگر را برای تشخیص فیلم های جعلی سخت تر کند. "

پراناو دار ، در Analytics Vidhya ، همچنین آنچه را که وی "caveat با این الگوریتم" نامیده بود - را ارزیابی کرد - همچنین می تواند از این روش برای بهبود کیفیت معاوضه صورت استفاده کند که باعث می شود تشخیص جعلی سخت تر شود ، همچنین به محض اینکه الگوریتم تشخیص جعل راه اندازی شده است ، کلاهبرداران همیشه سعی می کنند مدل خود را اصلاح کنند تا یک قدم جلوتر بماند. "

با این حال ، نویسندگان گفتند ، "پالایشگاه ما به طور عمده کیفیت بصری را بهبود می بخشد ، اما فقط تشخیص کمی جعل را برای روش یادگیری عمیق که دقیقاً روی داده های خروجی جعلی آموزش داده شده است ، وارد می کند."